OpenAI anunció recientemente una importante actualización de políticas destinada a cambiar la forma en que se entrenan sus modelos de inteligencia artificial, haciendo hincapié en la importancia de la "libertad de conocimiento", independientemente de lo desafiante o controvertido que sea el tema. Este cambio significa que ChatGPT podrá responder preguntas de manera más completa, ofreciendo una gama más amplia de perspectivas y reduciendo las situaciones en las que se rechaza la discusión de ciertos temas. En las nuevas 187 páginas de especificaciones del modelo, OpenAI presenta un nuevo principio rector: no mentir, ni hacer afirmaciones falsas ni omitir contextos importantes. Nuevo

La prometedora empresa francesa de inteligencia artificial Mistral AI ha lanzado recientemente un nuevo servicio de API de moderación de contenido. Esta iniciativa no solo demuestra su ambición en el ámbito mundial de la IA, sino que también refleja una profunda reflexión sobre la gobernanza de la seguridad de la IA. Este sistema de moderación, basado en el modelo Ministral8B, puede identificar con precisión nueve categorías de contenido potencialmente dañino, incluyendo contenido sexual, discurso de odio, violencia, actividades peligrosas e información de identificación personal. Cabe destacar que esta API admite once idiomas principales, entre ellos árabe, chino, inglés, francés, etc.

La startup francesa de inteligencia artificial Mistral AI ha lanzado recientemente una nueva API de moderación de contenido para competir con OpenAI y otros líderes de la industria, abordando así el creciente problema de la seguridad de la IA y el filtrado de contenido. Este servicio se basa en el modelo Ministral8B de Mistral, finamente ajustado para detectar contenido potencialmente dañino en nueve categorías diferentes, incluyendo pornografía, discurso de odio, violencia, actividades peligrosas e información de identificación personal.

En la era digital, la seguridad del contenido es cada vez más importante. El 26 de septiembre, OpenAI lanzó oficialmente un nuevo modelo de moderación de contenido multimodal, llamado "omni-moderation-latest". Este modelo se basa en la última tecnología GPT-4o y puede identificar y detectar con precisión texto e imágenes dañinos. Esta actualización proporcionará a los desarrolladores herramientas poderosas para construir sistemas de moderación más robustos. Lo más destacado del nuevo modelo es que admite la moderación de entradas de texto e imágenes, especialmente en el manejo de

GPT-4 puede completar en horas el trabajo de meses de un humano. El uso de GPT-4 para la moderación de contenido permite etiquetas más consistentes y ciclos de retroalimentación de políticas más rápidos. Utilizar GPT-4 para la moderación de contenido puede reducir la carga mental de los revisores humanos.

Hive AI, una empresa de software que utiliza la inteligencia artificial para gestionar contenido digital, está buscando 200 millones de dólares en financiación. Se espera que la valoración de Hive AI supere los 2.000 millones de dólares de 2021, posiblemente acercándose a los 4.000 millones. Sus servicios de moderación de contenido ya son utilizados por varios clientes, incluyendo Visa, Netflix y Reddit.

Hive AI, una empresa de software que utiliza la inteligencia artificial para moderar contenido digital, está buscando 200 millones de dólares en financiación, según fuentes familiarizadas con el asunto. Se espera que la valoración supere los 2.000 millones de dólares de 2021. La valoración de Hive AI podría acercarse a los 4.000 millones de dólares.